python, 전처리, 통계, 가설검정, 기계학습, 회귀, 분류, 군집, 모델 학습, 모델 평가
평균 비교 검정(Mean Comparison Test)은 두 개 이상 집단 간 평균 차이가 단순한 우연인지 통계적으로 유의한지를 판단하는 방법이다. 범주형 변수로 집단을 나누고 연속형 변수의 평균을 비교한다. 이는 실무에서 가장 흔하게 사용되는 통계 기법 중 하나로, 약물 효과, 마케팅 전략, 제품 품질 등 다양한 분야에서 집단 간 차이를 과학적으로 검증하는 데 사용된다. 이 장에서는 t-검정과 ANOVA, 그리고 사후검정을 학습한다.
예제: 데이터 로드
import seaborn as sns
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from scipy import stats
# 데이터 로드
df = sns.load_dataset("penguins")
print("데이터 크기:", df.shape)
print("\n범주형 변수:", df.select_dtypes(include=['object', 'category']).columns.tolist())
print("연속형 변수:", df.select_dtypes(include=[np.number]).columns.tolist())데이터 크기: (344, 7)
범주형 변수: ['species', 'island', 'sex']
연속형 변수: ['bill_length_mm', 'bill_depth_mm', 'flipper_length_mm', 'body_mass_g']평균 비교 검정은 집단 간 평균의 차이가 우연에 의한 것인지, 실제로 의미 있는 차이인지를 통계적으로 판단한다.
평균 비교 검정의 예시
| 질문 | 독립 변수 (범주형) | 종속 변수 (연속형) | 검정 방법 |
|---|---|---|---|
| 성별에 따라 몸무게가 다른가? | 성별 (2그룹) | 몸무게 | 독립표본 t-검정 |
| 종에 따라 부리 길이가 다른가? | 종 (3그룹) | 부리 길이 | ANOVA |
| 약물 투여 전후 혈압이 달라졌는가? | 시점 (전/후) | 혈압 | 대응표본 t-검정 |
| 교육 방법별 시험 점수가 다른가? | 교육 방법 (4그룹) | 시험 점수 | ANOVA |
평균 비교 검정 종류
| 상황 | 집단 수 | 표본 관계 | 사용 검정 | 조건 |
|---|---|---|---|---|
| 두 독립 집단 비교 | 2 | 독립 | 독립표본 t-검정 | 정규성, 등분산성 |
| 두 독립 집단 (등분산 X) | 2 | 독립 | Welch t-검정 | 정규성 |
| 동일 대상 전후 비교 | 2 | 대응 | 대응표본 t-검정 | 차이값의 정규성 |
| 세 집단 이상 비교 | 3+ | 독립 | 일원분산분석(ANOVA) | 정규성, 등분산성 |
평균 비교 검정은 다음 가정들을 전제로 한다.
검정 가정
| 가정 | 내용 | 확인 방법 | 위배 시 대응 |
|---|---|---|---|
| 1. 정규성 | 각 집단의 데이터가 정규분포를 따름 | Shapiro-Wilk, Q-Q plot | 비모수 검정, 변환 |
| 2. 등분산성 | 집단 간 분산이 동일함 | Levene 검정 | Welch 검정, Games-Howell |
| 3. 독립성 | 각 관측치가 서로 독립적 | 실험 설계 확인 | 혼합 모델, 반복측정 ANOVA |
가정 위배 시 강건성
독립표본 t-검정(Independent Samples t-test)은 서로 독립된 두 집단의 평균을 비교하는 가장 기본적인 검정이다.
가설 설정
t-통계량
\[ t = \frac{\bar{x}_1 - \bar{x}_2}{s_p \sqrt{\frac{1}{n_1} + \frac{1}{n_2}}} \]
여기서 \(s_p\)는 합동 표준편차(pooled standard deviation)이다.
예제: 데이터 준비 및 탐색
from scipy.stats import ttest_ind
# 필요한 열만 선택 및 결측치 제거
df_t = df[["sex", "body_mass_g"]].dropna()
print("=== 집단별 기술 통계량 ===")
summary = df_t.groupby("sex")["body_mass_g"].agg(['count', 'mean', 'std', 'min', 'max'])
print(summary)
# 집단 분리
male = df_t[df_t["sex"] == "Male"]["body_mass_g"]
female = df_t[df_t["sex"] == "Female"]["body_mass_g"]
print(f"\n남성 표본 크기: {len(male)}")
print(f"여성 표본 크기: {len(female)}")=== 집단별 기술 통계량 ===
count mean std min max
sex
Female 165 3862.272727 666.172050 2700.0 5200.0
Male 168 4545.684524 787.628884 3250.0 6300.0
남성 표본 크기: 168
여성 표본 크기: 165예제: 가정 확인
# 1. 정규성 검정
from scipy.stats import shapiro, levene
print("\n=== 정규성 검정 (Shapiro-Wilk) ===")
_, p_male = shapiro(male)
_, p_female = shapiro(female)
print(f"남성: p = {p_male:.4f} {'(정규)' if p_male > 0.05 else '(비정규)'}")
print(f"여성: p = {p_female:.4f} {'(정규)' if p_female > 0.05 else '(비정규)'}")
# 2. 등분산성 검정
print("\n=== 등분산성 검정 (Levene) ===")
_, p_levene = levene(male, female)
print(f"p = {p_levene:.4f} {'(등분산)' if p_levene > 0.05 else '(이분산)'}")
=== 정규성 검정 (Shapiro-Wilk) ===
남성: p = 0.0000 (비정규)
여성: p = 0.0000 (비정규)
=== 등분산성 검정 (Levene) ===
p = 0.0143 (이분산)예제: 독립표본 t-검정
# 독립표본 t-검정 (등분산 가정)
t_stat, p_value = ttest_ind(male, female, equal_var=True)
print("\n=== 독립표본 t-검정 (Student) ===")
print(f"t-통계량: {t_stat:.4f}")
print(f"p-value: {p_value:.4f}")
print(f"자유도: {len(male) + len(female) - 2}")
# 결과 해석
alpha = 0.05
print(f"\n유의수준 {alpha} 기준:")
if p_value < alpha:
print(f"✓ 귀무가설 기각: 성별에 따른 체중 차이가 유의함")
print(f" 평균 차이: {male.mean() - female.mean():.2f}g")
else:
print(f"✗ 귀무가설 채택: 성별에 따른 체중 차이가 유의하지 않음")
=== 독립표본 t-검정 (Student) ===
t-통계량: 8.5417
p-value: 0.0000
자유도: 331
유의수준 0.05 기준:
✓ 귀무가설 기각: 성별에 따른 체중 차이가 유의함
평균 차이: 683.41g예제: 시각화
# 시각화
fig, axes = plt.subplots(1, 2, figsize=(14, 5))
# 박스플롯
sns.boxplot(x="sex", y="body_mass_g", data=df_t, ax=axes[0])
axes[0].set_title("Body Mass by Sex")
axes[0].set_xlabel("Sex")
axes[0].set_ylabel("Body Mass (g)")
# 히스토그램
axes[1].hist(male, alpha=0.5, label=f'Male (n={len(male)})', bins=20, edgecolor='black')
axes[1].hist(female, alpha=0.5, label=f'Female (n={len(female)})', bins=20, edgecolor='black')
axes[1].axvline(male.mean(), color='blue', linestyle='--', linewidth=2, label=f'Male mean')
axes[1].axvline(female.mean(), color='orange', linestyle='--', linewidth=2, label=f'Female mean')
axes[1].set_title("Distribution of Body Mass")
axes[1].set_xlabel("Body Mass (g)")
axes[1].set_ylabel("Frequency")
axes[1].legend()
plt.tight_layout()
plt.show()
p-value는 차이의 존재 여부만 알려주므로, 차이의 크기를 측정하는 효과 크기를 함께 확인해야 한다.
예제: Cohen’s d 계산
# Cohen's d 계산
pooled_std = np.sqrt(((len(male)-1)*male.std()**2 + (len(female)-1)*female.std()**2) /
(len(male) + len(female) - 2))
cohens_d = (male.mean() - female.mean()) / pooled_std
print(f"\n=== 효과 크기 ===")
print(f"Cohen's d: {cohens_d:.4f}")
# 해석
if abs(cohens_d) < 0.2:
effect = "매우 작음"
elif abs(cohens_d) < 0.5:
effect = "작음"
elif abs(cohens_d) < 0.8:
effect = "중간"
else:
effect = "큼"
print(f"효과 크기: {effect}")
=== 효과 크기 ===
Cohen's d: 0.9362
효과 크기: 큼Cohen’s d 해석 기준
| d | |
|---|---|
| 0.2 미만 | 매우 작음 |
| 0.2 ~ 0.5 | 작음 |
| 0.5 ~ 0.8 | 중간 |
| 0.8 이상 | 큼 |
등분산 가정이 의심되면 Welch t-검정을 사용한다. 이는 등분산을 가정하지 않는 t-검정으로, 더 보수적인 결과를 제공한다.
예제: Welch t-검정
# Welch t-검정 (등분산 가정 불필요)
t_stat_welch, p_value_welch = ttest_ind(male, female, equal_var=False)
print("\n=== Welch t-검정 ===")
print(f"t-통계량: {t_stat_welch:.4f}")
print(f"p-value: {p_value_welch:.4f}")
# Student vs Welch 비교
print("\n=== t-검정 비교 ===")
print(f"Student t-test: t = {t_stat:.4f}, p = {p_value:.4f}")
print(f"Welch t-test: t = {t_stat_welch:.4f}, p = {p_value_welch:.4f}")
=== Welch t-검정 ===
t-통계량: 8.5545
p-value: 0.0000
=== t-검정 비교 ===
Student t-test: t = 8.5417, p = 0.0000
Welch t-test: t = 8.5545, p = 0.0000Student vs Welch 선택 기준
일원분산분석(One-way ANOVA)은 세 개 이상 집단의 평균을 동시에 비교한다. 여러 번의 t-검정 대신 ANOVA를 사용하는 이유는 다중 비교로 인한 1종 오류 증가를 방지하기 위해서다.
가설 설정
F-통계량
\[ F = \frac{\text{집단 간 분산}}{\text{집단 내 분산}} = \frac{MSB}{MSW} \]
F 값이 클수록 집단 간 차이가 집단 내 변동에 비해 크다는 의미이다.
예제: 데이터 준비 및 탐색
from scipy.stats import f_oneway
# 필요한 열 선택 및 결측치 제거
df_a = df[["species", "bill_length_mm"]].dropna()
print("=== 종별 부리 길이 기술 통계량 ===")
summary = df_a.groupby("species")["bill_length_mm"].agg(['count', 'mean', 'std'])
print(summary)
# 집단별 데이터 분리
adelie = df_a[df_a["species"] == "Adelie"]["bill_length_mm"]
chinstrap = df_a[df_a["species"] == "Chinstrap"]["bill_length_mm"]
gentoo = df_a[df_a["species"] == "Gentoo"]["bill_length_mm"]=== 종별 부리 길이 기술 통계량 ===
count mean std
species
Adelie 151 38.791391 2.663405
Chinstrap 68 48.833824 3.339256
Gentoo 123 47.504878 3.081857예제: 가정 확인
# 1. 각 집단의 정규성 검정
print("\n=== 정규성 검정 ===")
for species, data in [("Adelie", adelie), ("Chinstrap", chinstrap), ("Gentoo", gentoo)]:
_, p = shapiro(data)
print(f"{species}: p = {p:.4f} {'(정규)' if p > 0.05 else '(비정규)'}")
# 2. 등분산성 검정
print("\n=== 등분산성 검정 (Levene) ===")
_, p_levene = levene(adelie, chinstrap, gentoo)
print(f"p = {p_levene:.4f} {'(등분산)' if p_levene > 0.05 else '(이분산)'}")
=== 정규성 검정 ===
Adelie: p = 0.7166 (정규)
Chinstrap: p = 0.1941 (정규)
Gentoo: p = 0.0135 (비정규)
=== 등분산성 검정 (Levene) ===
p = 0.1078 (등분산)예제: 일원분산분석
# ANOVA 수행
f_stat, p_value = f_oneway(adelie, chinstrap, gentoo)
print("\n=== 일원분산분석 (One-way ANOVA) ===")
print(f"F-통계량: {f_stat:.4f}")
print(f"p-value: {p_value:.4f}")
# 결과 해석
alpha = 0.05
print(f"\n유의수준 {alpha} 기준:")
if p_value < alpha:
print(f"✓ 귀무가설 기각: 종에 따른 부리 길이 차이가 유의함")
print(f" → 사후검정(Post-hoc test) 필요")
else:
print(f"✗ 귀무가설 채택: 종에 따른 부리 길이 차이가 유의하지 않음")
=== 일원분산분석 (One-way ANOVA) ===
F-통계량: 410.6003
p-value: 0.0000
유의수준 0.05 기준:
✓ 귀무가설 기각: 종에 따른 부리 길이 차이가 유의함
→ 사후검정(Post-hoc test) 필요예제: 시각화
# 시각화
fig, axes = plt.subplots(1, 2, figsize=(14, 5))
# 박스플롯
sns.boxplot(x="species", y="bill_length_mm", data=df_a, ax=axes[0])
axes[0].set_title("Bill Length by Species")
axes[0].set_xlabel("Species")
axes[0].set_ylabel("Bill Length (mm)")
# 바이올린 플롯
sns.violinplot(x="species", y="bill_length_mm", data=df_a, ax=axes[1])
axes[1].set_title("Bill Length Distribution by Species")
axes[1].set_xlabel("Species")
axes[1].set_ylabel("Bill Length (mm)")
plt.tight_layout()
plt.show()
ANOVA는 “적어도 하나의 평균이 다르다”는 것만 알려주고, 구체적으로 어떤 집단 간 차이가 있는지는 알려주지 않는다. 이를 확인하기 위해 사후검정(Post-hoc Test)이 필요하다.
다중 비교 문제
여러 번의 t-검정을 반복하면 1종 오류(α)가 누적되어 증가한다.
사후검정은 이러한 다중 비교 문제를 보정한다.
대응표본 t-검정(Paired Samples t-test)은 동일한 대상의 전후 변화를 비교한다. 각 대상의 차이값(전 - 후)을 계산하고, 이 차이값의 평균이 0인지 검정한다.
가설 설정
예제 구조 (개념적)
from scipy.stats import ttest_rel
# 전후 데이터 (예시)
# before = [120, 125, 130, 135, 128] # 처치 전 혈압
# after = [115, 120, 125, 130, 122] # 처치 후 혈압
# 대응표본 t-검정
# t_stat, p_value = ttest_rel(before, after)
# print(f"t-통계량: {t_stat:.4f}")
# print(f"p-value: {p_value:.4f}")
#
# if p_value < 0.05:
# print("처치 효과가 유의함")
# else:
# print("처치 효과가 유의하지 않음")대응표본 vs 독립표본
| 구분 | 대응표본 t-검정 | 독립표본 t-검정 |
|---|---|---|
| 데이터 구조 | 동일 대상 전후 | 서로 다른 대상 |
| 예시 | 약물 투여 전후 혈압 | 남성 vs 여성 체중 |
| 장점 | 개인차 통제, 검정력 높음 | 구현 간단 |
| 가정 | 차이값의 정규성 | 각 집단의 정규성, 등분산성 |
ANOVA에서 유의한 결과가 나오면, 구체적으로 어떤 집단 간 차이가 있는지 확인하기 위해 사후검정을 수행한다.
사후검정 비교
| 방법 | 특징 | 보수성 | 가정 | 사용 상황 |
|---|---|---|---|---|
| Tukey HSD | 가장 많이 사용 | 중간 | 등분산 | ANOVA 후 표준 선택 |
| Bonferroni | 매우 보수적 | 높음 | 등분산 | 비교 횟수 적을 때 |
| Scheffé | 매우 보수적 | 매우 높음 | 등분산 | 모든 선형 조합 비교 |
| Games-Howell | 등분산 불필요 | 중간 | 정규성만 | 이분산 시 사용 |
| Dunnett | 대조군 비교 | 중간 | 등분산 | 하나의 대조군과 비교 |
Tukey HSD는 ANOVA 이후 가장 표준적인 사후검정으로, 모든 집단 쌍의 평균 차이를 전체 유의수준을 유지하면서 비교한다.
예제: Tukey HSD 수행
from statsmodels.stats.multicomp import pairwise_tukeyhsd
# Tukey HSD 사후검정
tukey = pairwise_tukeyhsd(
endog=df_a["bill_length_mm"], # 비교할 연속형 변수
groups=df_a["species"], # 집단 변수
alpha=0.05 # 유의수준
)
print("=== Tukey HSD 사후검정 ===")
print(tukey)=== Tukey HSD 사후검정 ===
Multiple Comparison of Means - Tukey HSD, FWER=0.05
=========================================================
group1 group2 meandiff p-adj lower upper reject
---------------------------------------------------------
Adelie Chinstrap 10.0424 0.0 9.0249 11.06 True
Adelie Gentoo 8.7135 0.0 7.8672 9.5598 True
Chinstrap Gentoo -1.3289 0.0089 -2.3819 -0.276 True
---------------------------------------------------------출력 결과 해석
| 열 | 의미 |
|---|---|
| group1, group2 | 비교되는 두 집단 |
| meandiff | 평균 차이 (group1 - group2) |
| p-adj | 보정된 p-value (다중 비교 보정) |
| lower, upper | 평균 차이의 95% 신뢰구간 |
| reject | 귀무가설 기각 여부 (True = 유의한 차이) |
예제: 사후검정 시각화
# Tukey HSD 결과 시각화
tukey.plot_simultaneous()
plt.title("Tukey HSD: Simultaneous Confidence Intervals")
plt.show()
# 박스플롯과 함께 비교
plt.figure(figsize=(10, 6))
sns.boxplot(x="species", y="bill_length_mm", data=df_a)
plt.title("Bill Length by Species with Post-hoc Results")
plt.xlabel("Species")
plt.ylabel("Bill Length (mm)")
# 유의한 차이가 있는 쌍에 별표 표시 (수동)
# (실제로는 자동화된 시각화 패키지 사용 권장)
plt.show()
Bonferroni 보정은 가장 보수적인 방법으로, 각 비교의 유의수준을 비교 횟수로 나눈다.
\[ \alpha_{\text{adjusted}} = \frac{\alpha}{k} \]
여기서 k는 비교 횟수이다.
예제: Bonferroni 보정 수동 적용
# 3개 집단의 모든 쌍 비교 (3C2 = 3번)
comparisons = [
("Adelie", "Chinstrap"),
("Adelie", "Gentoo"),
("Chinstrap", "Gentoo")
]
# Bonferroni 보정 유의수준
alpha = 0.05
k = len(comparisons)
alpha_bonf = alpha / k
print(f"\n=== Bonferroni 보정 ===")
print(f"원래 유의수준: {alpha}")
print(f"비교 횟수: {k}")
print(f"보정된 유의수준: {alpha_bonf:.4f}")
print("\n개별 t-검정 결과:")
for sp1, sp2 in comparisons:
group1 = df_a[df_a["species"] == sp1]["bill_length_mm"]
group2 = df_a[df_a["species"] == sp2]["bill_length_mm"]
t_stat, p_val = ttest_ind(group1, group2)
print(f"\n{sp1} vs {sp2}:")
print(f" p-value: {p_val:.4f}")
print(f" 결과: ", end="")
if p_val < alpha_bonf:
print("유의한 차이 (Bonferroni 보정 후)")
else:
print("유의하지 않음 (Bonferroni 보정 후)")
=== Bonferroni 보정 ===
원래 유의수준: 0.05
비교 횟수: 3
보정된 유의수준: 0.0167
개별 t-검정 결과:
Adelie vs Chinstrap:
p-value: 0.0000
결과: 유의한 차이 (Bonferroni 보정 후)
Adelie vs Gentoo:
p-value: 0.0000
결과: 유의한 차이 (Bonferroni 보정 후)
Chinstrap vs Gentoo:
p-value: 0.0062
결과: 유의한 차이 (Bonferroni 보정 후)등분산 가정이 위배된 경우 Games-Howell 검정을 사용한다. 이는 Welch t-검정의 다중 비교 버전이다.
# Games-Howell은 pingouin 라이브러리 사용 권장
# import pingouin as pg
#
# games_howell = pg.pairwise_gameshowell(
# data=df_a,
# dv="bill_length_mm",
# between="species"
# )
#
# print(games_howell)이 장에서는 집단 간 평균을 비교하는 다양한 검정 방법을 학습했다. 주요 내용은 다음과 같다.
평균 비교 검정 종합
| 상황 | 집단 수 | 표본 관계 | 등분산 가정 | 검정 방법 |
|---|---|---|---|---|
| 두 집단 비교 | 2 | 독립 | 만족 | Student t-검정 |
| 두 집단 비교 | 2 | 독립 | 위배 | Welch t-검정 |
| 동일 대상 전후 | 2 | 대응 | - | 대응표본 t-검정 |
| 다집단 비교 | 3+ | 독립 | 만족 | ANOVA + Tukey |
| 다집단 비교 | 3+ | 독립 | 위배 | ANOVA + Games-Howell |
분석 흐름
핵심 포인트
주의사항
평균 비교 검정은 데이터 분석에서 가장 기본이 되는 기법이다. 적절한 검정을 선택하고 가정을 확인하며, 결과를 올바르게 해석하는 것이 중요하다. 다음 장에서는 변수 간 관계를 분석하는 상관분석과 회귀분석을 학습할 것이다.